Perplexity 推出 Portable Computer 地端優先 AI Agent
☘️ Article
孟恭觀點
- perplexity 現在支援地端模型串 interface 一鍵安裝直接使用
- (雖然目前 Mac 版本我測試一直閃退)
- 自己的使用情境越來越依賴這類整合服務商,a) 記得需求和慣性,b) 可以支用各種模型不用每次誰推出新的就遷移一次、c) 夠無腦 (這超重要,有空去養龍蝦又棄養換來換去測東西的終究是少數人)
- 比較不喜歡就是可能價格會被多收,但為了方便和實用可以接受,而現在多了地端支援,就讓價格敏感的用戶更能安心使用
- 算力, token, model 都會變大宗商品,好的使用體驗則不會,至少現在
- https://www.perplexity.ai/hub/products/portable-computer
✍️ Abstract
三句話總結
- 本機運算免代幣費機制:Perplexity 僅向 Pro、Max 訂閱方案用戶開放 Portable Computer,透過本機模型運算不計 token 費用的設計降低使用成本,有效緩解整合服務的定價溢價疑慮,並滿足價格敏感用戶需求。
- Portable Computer 正式發布:Perplexity 推出本地優先的 AI Agent 堆疊架構,支援 Windows、Linux 系統於沙盒環境內單次載入 PPLX 27B 或 Qwen 3.8 27B 運行排程重複任務,但目前 Mac 版本仍面臨持續閃退問題。
- 使用者體驗構築競爭壁壘:面對 算力、token、模型 日趨大宗商品化的競爭環境,整合服務商憑藉 記憶慣性、免遷移特性 的優質體驗建立護城河。
Portable Computer 本地 AI Agent 堆疊
- 任務預設本地執行:系統在裝置本機執行 代理框架、排程器、模型,僅在必要時呼叫雲端。
- 支援 2 大作業系統:軟體支援 Windows、Linux 系統,可存取本機檔案並與應用程式連動。
- 單次限跑單一模型:本機提供 PPLX 27B、Qwen 3.8 27B,一次僅能 載入、運行 1 款模型。
- 調用雲端需獲授權:若任務需 聯網搜尋 或 頂級推理,排程器會先徵求同意才轉發雲端模型。
- 支援排程重複任務:使用者可設定週期性本機工作,如:每日程式碼審查 或 每週檔案摘要。
- 程式於沙盒內執行:工具、程式碼 均在隔離環境運作,並嚴格管控 本機檔案、應用權限。
- 串接外部工作軟體:本機排程器可整合 Gmail、Outlook、Slack、GitHub、搜尋引擎。
- 本機運算免代幣費:本地模型處理之任務不計 token 費用,適合大規模程式碼遷移等情境。
- 硬體需高規格配備:支援 Nvidia DGX Spark,或 配備 24GB 以上 VRAM 之 顯卡 或 處理器。
- 僅限付費會員使用:目前僅向 Pro、Max 訂閱方案的用戶開放 下載、安裝。
- 產品發布:推出全新 Portable Computer,支援 Windows、Linux 系統。
- 晶片支援:現已支援 AMD Ryzen AI Halo。
- 架構定位:採用本地優先 (local-first) 的 AI Agent 堆疊架構。
- 運作機制:可於本機建立與 應用程式、本機檔案 協作的本機 AI Agent,支援 直接啟動任務 或 排程週期性工作,僅在需要時呼叫雲端模型。
- 系統設定:提供 Windows、Linux 系統的 安裝、設定 選項。
孟恭觀點分析
- Perplexity 整合地端模型:支援串接 interface (介面) 一鍵安裝直接使用,但測試 Mac 版本目前持續閃退。
- 整合服務商依賴加深:因其能記憶個人 需求、習慣,可直接調用各模型免於頻繁遷移,且操作門檻低,符合多數人不願耗時測試新工具的現實。
- 地端支援緩解溢價顧慮:整合服務雖可能溢價收費,但為求 方便、實用 仍可接受,新增的地端支援更讓價格敏感用戶能安心採用。
- 使用者體驗不易商品化:算力、token (權杖)、model (模型) 未來皆會成為大宗商品,但良好的使用者體驗在現階段仍無法被輕易取代。
專有名詞
- Perplexity (Perplexity AI):是一家開發對話式人工智慧搜尋引擎的科技公司,在本文中指推出支援地端模型運作之整合軟體服務商。
- Portable Computer (Perplexity Portable Computer):是 Perplexity 推出的本機優先 AI 代理架構軟體,用於在使用者裝置上直接運行模型並處理自動化任務。
- AMD (Advanced Micro Devices):是一家跨國半導體公司,在本文中為支援本機推論處理器的晶片製造商。
- Ryzen AI Halo (AMD Ryzen AI Halo):是 AMD 推出的整合神經網路處理單元之高階處理器平台代號,在本文中指支援本機代理軟體運作的硬體環境。
- PR (Pull Request):是在分散式版本控制系統中請求將程式碼變更合併至主分支的機制,在本文中指本機代理自動化 審核、分類 的任務對象。
- PPLX 27B (Perplexity 27B):是 Perplexity 開發的 270 億參數開源大型語言模型,在本文中作為在使用者本機端直接運行的推論模型。
- Qwen (Tongyi Qianwen):是阿里巴巴集團開發的開源大型語言模型系列,在本文中為支援本機運行的推論模型之一。
- Nemotron (NVIDIA Nemotron):是 Nvidia 開發的最佳化大型語言模型系列,在本文中指即將支援於本機架構運行的推論模型。
- NVIDIA (NVIDIA Corporation):是一家專注於 圖形處理器、人工智慧運算晶片 的科技公司,在本文中為 本機推論硬體、模型技術 的提供者。
- DGX Spark (NVIDIA DGX Spark):是 Nvidia 推出的專用人工智慧工作站硬體平台,在本文中為支援運行本機大型模型的運算系統。
- RTX (NVIDIA RTX):是 Nvidia 推出的圖形處理器 架構、產品系列,在本文中指支援本機推論所需的獨立顯示卡規格。
- VRAM (Video Random Access Memory):是用於顯示卡存放 顯示、模型運算資料 的專用隨機存取記憶體,在本文中指本機運行模型所需的硬體容量規格。
留言
留言載入中…